Dân cư đầu tiên trên khu vực Kremli có thể có từ thời kỳ đồ đồng (khoảng thiên niên kỷ 2 TCN). Tại khu vực nhà thờ Arkhangelskii người ta đã tìm thấy các di tích về dân cư có từ thời kỳ đồ sắt sớm (nửa sau của thiên niên kỷ 1 TCN).

Ban đầu Kremli có vai trò như một sự bảo vệ cho khu dân cư, xuất hiện trên đồi Borovitskii, mũi đất nơi con sông Neglinnaya đổ vào sông Moskva. Những ghi chép đầu tiên nhắc tới Moskva có vào năm 1147. Thành phố Moskva đã được Đại công tước Yuri Dolgoruky mở rộng đáng kể trong thế kỷ 12. Từ năm 1264 nó là nơi ở của các công tước Moskva.

Năm 1156 trên khu vực Kremli ngày nay người ta đã xây dựng những công trình quân sự đầu tiên với chiều dài tổng cộng khoảng 700 mét.

Pháo đài được đặt tên là Kremli vào năm 1331. Trong thời gian 1366 - 1368, thời kỳ trị vì của Dmitry Donskoy, thành lũy bằng đá trắng đã được xây dựng.

Trong thế kỷ 14 lãnh thổ Kremli được mở rộng, với các tường thành bằng gỗ sồi, và sau đó vào năm 1367 được thay thế bằng các bức tường và tháp xây dựng từ đá trắng.

Cuối thế kỷ 13, đầu thế kỷ 14 người ta đã xây dựng những nhà thờ bằng đá đầu tiên.

Vào thế kỷ 15 các công quốc ở Nga đã được Đại công tước Ivan III của Moskva hợp nhất, sau đó ông trở thành Đại công tước toàn Nga. Ông tổ chức việc tái thiết Kremli, mời rất nhiều nhà xây dựng có tiếng từ Ý, kiến trúc sư Aristotile Fioravanti là một trong số họ. Điện Kremli đã được xây dựng lại với sự tham gia của các kiến trúc sư Ý này. Quảng trường Sobornaya trở thành trung tâm của nó với lần lượt các công trình xây dựng sau ra đời trên đó: nhà thờ Uspensky (1475 - 1479), nhà thờ Blagoveshchensky (1484 - 1489), cung điện Granovitaya (1487 - 1491), nhà thờ Arkhangelsky (1505 - 1508) - (hầm mộ của các công tước và Sa hoàng Nga) và tháp chuông Ivan Veliky.

Trong giai đoạn 1485 - 1495, thời Ivan III, các công trình pháo đài của Kremli được xây dựng lại. Các tường thành và tháp canh mới cao hơn và dày hơn trước đây, được ốp bằng gạch đỏ. Tường kéo dài đến 2.235 m với chiều dày thay đổi từ 3,5 đến 9 m, với lỗ châu mai "đuôi én" kiểu Ý đặc biệt. Giai đoạn 1508 - 1516 trên khu vực ngày nay là Quảng trường Đỏ người ta đã đào hào, nước trong đó có từ sông Neglinnaya. Kremli trở thành một pháo đài bất khả xâm phạm, được nước bao bọc xung quanh.

Trong giai đoạn từ thế kỷ 17 - 19 đã diễn ra các hoạt động xây dựng tích cực các công trình dành cho giới thượng lưu và quần thể Kremli nhận được sự hoàn thiện một cách hợp lý. Trong 1635 - 1636 người ta xây dựng cung Teremnoi, nối liền vào cung điện Granovitaya. Trong thế kỷ 17, các tháp canh của Kremli cũng đã được hoàn thiện và có hình dáng như ngày nay.

Giai đoạn 1702 - 1736 người ta xây dựng tòa nhà lớn cho vũ khí (các kiến trúc sư D. Ivanov, Kh. Kondrad với sự tham gia của Mikhail Ivanovich Choglokov). Giai đoạn 1776 - 1787 là tòa nhà của Viện Nguyên lão (kiến trúc sư Matvei Phiodorovich Kazakov).

Năm 1812 Moskva và Kremli bị quân đội của Napoléon Bonaparte chiếm đóng. Khi rút lui, Napoléon đã ra lệnh đặt mìn để phá hủy các tòa nhà của Kremli. Mặc dù phần lớn lượng thuốc nổ đã không nổ, nhưng tổn thất nói chung là đáng kể. Các tháp bị nổ là Vodovzvoznaya, Petrovskaya và Vô danh số một, bị tổn thất nặng nề là tháp Arsenalnaya, gây ra thiệt hại cho các nhà phụ tới tận tháp chuông Ivan Velikii. Sự khôi phục các công trình hư hỏng kéo dài 20 năm, từ 1815 đến 1836.

Giữa thế kỷ 18 ý tưởng xây dựng Cung điện lớn Kremli đã nảy sinh, nằm dọc theo sườn phía nam của ngọn đồi mé bờ sông. Trong các giai đoạn khác nhau dự án này đã được các kiến trúc sư V.I. Bazhenov, M. Ph. Kazakov, A.N. Lvov, V.P. Stasov triển khai. Nhưng chỉ có dự án của Konstantin Andreevich Ton trong giai đoạn 1839 - 1849 được thể hiện trong cuộc sống. Theo dự án của ông, trong giai đoạn 1844 - 1851 người ta đã xây dựng tòa nhà của Cung điện Oruzheinaya (Cung điện vũ khí).

Với sự ra đời của chế độ Xô Viết thì Kremli trở thành một trong những biểu tượng của chế độ mới. Giai đoạn 1935 - 1937 những con đại bàng hai đầu, trước đây được trang trí trên các tháp chính của Kremli là Spasskaya Nikolskaya, Troitskaya, Borovitskaya và Vodovoznaya, đã được thay thế bằng các ngôi sao hồng ngọc, đường kính 3 - 3,75 m. Giai đoạn 1959 - 1961 người ta xây dựng Cung Đại hội Kremli (hiện nay gọi là Cung Kremli Quốc gia - GKD) do Mikhail Posokhin và nhiều người khác thiết kế, có dáng vẻ như một phòng hòa nhạc hiện đại, với phác thảo hình chữ nhật phủ đá hoa cương biểu hiện bằng các tháp hẹp và thân cột nhiều tầng gồm các tấm kính.

Từ năm 1955 Kremli mở cửa cho khách tham quan và trở thành một viện bảo tàng ngoài trời.

Năm 1990 UNESCO đưa Kremli vào danh sách Di sản thế giới.